Ilya Sutskever
概述 (50-200字符)
Ilya Sutskever 是以色列裔加拿大计算机科学家,AlexNet 共同作者,OpenAI 联合创始人兼前首席科学家,在深度学习和大语言模型领域有重要贡献。
关键内容 (≥300字符, 用双链)
- AlexNet 共同作者:2012 年,Sutskever 作为Geoffrey E. Hinton的博士生,与Alex Krizhevsky和 Hinton 共同发表了 ImageNet 分类的里程碑论文。他在 AlexNet 的设计与实现中发挥了关键作用,特别是在 GPU 并行训练和Dropout正则化方面。
- Google Brain 时期:AlexNet 之后,Sutskever 加入 Google Brain 团队,参与了 Seq2Seq 模型、机器翻译、以及早期大语言模型的研究工作。他在序列到序列学习和注意力机制方面也有重要贡献。
- OpenAI 联合创始人:2015 年,Sutskever 与 Elon Musk、Sam Altman 等人共同创立 OpenAI,担任首席科学家。他是 GPT 系列(GPT-2、GPT-3、GPT-4)和 ChatGPT 的核心技术推动者之一,对大语言模型的 scaling law 和指令调优有深远影响。
- 学术影响:Sutskever 是深度学习领域被引用最多的研究者之一。他的研究横跨计算机视觉(AlexNet)、自然语言处理(Seq2Seq、GPT)、和强化学习,是少数在多个 AI 子领域都有突破性贡献的科学家。
来源
- [Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. NeurIPS, 25.] — AlexNet 论文
- [Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I., & Salakhutdinov, R. (2014). JMLR, 15(1), 1929–1958.] — Dropout 论文
- [raw/articles/ai-papers/machine-learning/07_alexnet_2012.md] — 源文件
- [raw/articles/ai-papers/machine-learning/09_dropout_2014.md] — 源文件
- [raw/articles/ai-papers/foundations/paper_03_alexnet.md] — AlexNet 论文精读
相关
- Geoffrey E. Hinton — advised_by
- Alex Krizhevsky — collaborated_with
- AlexNet — co_created
- ImageNet Classification with Deep Convolutional Neural Networks (2012 论文) — authored
- Dropout: A Simple Way to Prevent Neural Networks from Overfitting (2014 论文) — co_author
- Dropout(随机失活) — co_invented
- Nitish Srivastava — collaborated_with
- Ruslan Salakhutdinov — collaborated_with